Anthropic co-founder: AGI predictions, leaving OpenAI, what keeps him up at night | Ben Mann

slug

Anthropic co-founder: AGI predictions, leaving OpenAI, what keeps him up at night | Ben Mann

type

Post

status

Published

date

Jul 28, 2025

推荐

思考

summary

本视频采访了Anthropic的联合创始人Ben Mann，讨论了多项关于人工智能（AI）及其安全性、经济影响的议题。Ben提到，超智能（AGI）可能在2028年左右实现，而AI的进步并没有减缓，反而加速了。他离开OpenAI创立Anthropic的原因是觉得在OpenAI中AI安全问题没有得到足够重视，尤其是在超智能的对齐问题上。Ben分享了自己对AI带来失业率上升、经济结构变化的看法，并指出AI将重塑社会及职场，并对未来的人类角色提出了重要的思考。他还提供了未来AI时代中如何应对职业变动的建议，强调“使用工具”的重要性，并关注对孩子的教育，特别是好奇心和创造力的培养。 Highlights • 🤖 超智能的到来： Ben预计超智能（AGI）将在2028年左右到来，超智能的对齐问题至关重要，可能会影响整个人类社会。 • 🔍 离开OpenAI的原因： Ben与团队离开OpenAI是因为认为AI安全未得到充分重视，尤其是如何“把上帝关进盒子”这一超智能控制问题。 • 📉 AI对就业的影响： AI的发展可能会导致失业率上升，尤其是低技能职位会遭到取代。社会需要应对这些变化，并提前规划过渡期。 • 📈 AI加速进步： Ben强调AI的进步没有减缓，模型发布频率逐渐加快，每月或每季度更新一次，而不是像过去那样一年一次。 • 💼 AI与工作： 他提出“经济图灵测试”的概念，表示AI如果能取代一定比例的工作，将对全球经济产生深远影响。 • 🧑‍💻 未来职业建议： Ben建议使用AI工具的能力至关重要，尤其是能够灵活调整与AI交互方式，提高工作效率和创造力。 • 👶 教育与未来： 对孩子的教育需要强调好奇心、创造力和善良，这些素质将帮助他们在未来的AI时代中获得成功。

观看链接

Anthropic co-founder: AGI predictions, leaving OpenAI, what keeps him up at night | Ben Mann

https://www.youtube.com/watch?v=WWoyWNhx2XU

内容提炼

2028年或许AGI就会出现

在Meta,我们的目标是赚钱,而我在Anthropic的最佳愿景是我们能够影响人类的未来 at Meta is that we make money and my best case at Anthropic is we affect the future of humanity and Subscribe

他不想提AGI，而是改用transformative AI，来看看它是否会真的引起社会变革